Khi người Việt nội thuộc triều đình ở Trung nguyên thì ở phía Nam, người Chiêm Thành đã sớm xây dựng được một quốc gia độc lập tự chủ từ năm 192. Sinh sống ở các thung lũng Nam Trung Bộ hẹp và nhỏ, vương quốc Chiêm Thành có thế mạnh về hàng hải và các ngành nghề thủ công, nhưng lại thiếu những miền châu thổ rộng lớn. Bởi vậy, từ khi lập nước, Chiêm Thành liên tục tiến hành các hoạt động quân sự với Đại Cồ Việt.[8] Năm 803, vua Chiêm sai viên tướng Senapati Par đem quân xâm phạm An Nam, vây hãm phía nam quận Cửu Chân. Năm 979, quân Chiêm được Ngô Nhật Khánh dẫn đường, tổ chức lực lượng thủy quân hùng hậu tiến đánh Hoa Lư theo đường biển, nhưng bị tan vỡ vì gặp bão ở cửa biển Thần Phù.[9]

Năm 982, Lê Hoàn cử Ngô Tử Canh và Từ Mục đi sứ Chiêm Thành bị vua Chiêm là Bê Mi Thuế (Paramesvaravarman) bắt giữ. Lê Hoàn tức giận, sai đóng chiến thuyền, sửa binh khí, tự làm tướng đi đánh, chém Bê Mi Thuế tại trận. Chiêm Thành thua to. Bắt sống được quân sĩ nhiều vô kể, cùng là tài nữ trong cung trăm người và một nhà sư người Thiên Trúc, lấy các đồ quý đem về, thu được vàng bạc của báu kể hàng vạn; san phẳng thành trì, phá hủy tông miếu, vừa một năm thì trở về kinh sư.[10] Tống sử cho biết Lê Hoàn đã sai sứ dâng 93 tù binh Chiêm Thành cho vua Tống nhằm chứng tỏ thực lực của Đại Cồ Việt.[11] Khi nhà vua đi đánh Chiêm, qua núi Đồng Cổ [lower-alpha 3] đến sông Bà Hòa, đường núi hiểm trở khó đi, bèn sai đào hải cảng mới, đào xong, công và tư đều tiện lợi.[10]

Cũng theo Tống sử, năm 990, Lê Hoàn lại đem quân đánh vào châu Địa Lý (Chiêm Thành), bắt được nhiều quân dân và tịch thu nhiều của cải.[11][12] Đến các năm 995 và 997, quân Chiêm kéo sang đánh phá biên giới Đại Cồ Việt, Lê Hoàn phải cho quân đánh đuổi.[13][14]